Heise 16.02.2026
12:00 Uhr

heise+ | Chatkontrolle: Sicherheitsrisiken beim Client-Side-Scanning


Strafverfolger wollen Chatkontrollen zur Strafverfolgung nutzen. Sicherheitsexperten befürchten Nutzerüberwachung, außerdem sind Erkennungsverfahren angreifbar.

heise+ | Chatkontrolle: Sicherheitsrisiken beim Client-Side-Scanning

Diskussionen über die Chatkontrolle, genauer um das geplante Client-Side-Scanning, thematisieren Verfahren zur Erkennung von bekanntem und unbekanntem CSAM (Child Sexual Abuse Material). Üblicherweise geht es hierbei um die Zuverlässigkeit der Erkennung, insbesondere darum, wie hoch der Anteil der falschen Treffer (False Positives) in der Praxis ist. Dabei geht man von einem Standardbetrieb aus, bei dem die Verfahren Inhalte aus der privaten Kommunikation von Nutzern untersuchen, die diese mit anderen austauschen.

Zu wenig Aufmerksamkeit erhält dabei der Umstand, dass man bei einem so kontroversen Mechanismus auch von gezielten Angriffen auf diesen ausgehen muss. Somit wird neben der Zuverlässigkeit auch die Sicherheit dieser Verfahren ein wichtiger Aspekt. Das kann zu einer Herausforderung werden, da robuste Hashverfahren oder KI-basierte Klassifizierung häufig eben nicht auf Sicherheit ausgelegt sind, sondern von einer Nutzung ohne gezielte Angriffe ausgehen.

Solche Angriffe sind jedoch durchaus bekannt. Man kann bei robusten Hashverfahren Fehlalarme bei für den Betrachter völlig unproblematischen Inhalten provozieren. Klassifizierungsverfahren können durch Adversarial Attacks, also Angriffe zur Manipulation der Klassifizierungsergebnisse, in ihrer Einschätzung fast beliebig beeinflusst werden. So kann ein Foto einer Firmenfeier durch das gezielte Hinzufügen von Rauschen als CSAM klassifiziert werden. Dieser Beitrag stellt solche Angriffe vor und diskutiert ihre Risiken und Konsequenzen.